Se conocen muy pocos detalles biográficos sobre este compositor. Segundo hijo de Heinrich Bach (1615-1692) y hermano de Johann Christoph, era tío en segundo grado del gran Johann Sebastian. Recibió un entrenamiento musical sólido de su padre, que era organista y del Kantor de Arnstadt, Jonas de Fletin; la influencia del último puede considerarse importante en su interés temprano por la música vocal.

En 1665 Johann Michael Bach sucedió a su hermano Johann Christoph Bach como organista de la capilla del castillo de Arnstadt. Después de una audición el 5 de octubre de 1673 sucedió a J. Effier (quién después precedió a  J.S. Bach como organista del castillo en Weimar) como organista del pueblo de Gehren. También se dedicó allí a la fabricación de instrumentos musicales de cuerda y de claves y desempeñó el importante puesto administrativo de escribano del pueblo, permaneciendo en Gehren hasta su muerte. Tuvo siete hijos y el 17 de octubre de 1707 su hija menor, María Bárbara Bach, nacida en Gehren, el 20 de octubre de 1684, se casó con su primo lejano Johann Sebastian Bach en Dornheim.

Un folleto emitido por el concilio de Gehren se refiere a Johann Michael Bach como un 'individuo tranquilo, distante y bien versado artísticamente'; dentro de la familia era considerado un 'compositor capaz' (Ursprung). Como compositor, de hecho, está casi al mismo nivel de su hermano Johann Christoph Bach. Sobre todo en el motete coral, la forma vocal a la que se consagró casi exclusivamente, compuso trabajos de importancia real. Su tratamiento convincente de la declamación hablada es particularmente notable. Como en la música de su hermano mayor, predomina fuertemente el estilo homofónico; pero en obras como "Sei lieber Tag willkommen" se vuelca al nuevo estilo más libre con pasajes melismáticos. Sus obras para coro doble se ubican firmemente en la tradición de Heinrich Schütz, Samuel Scheidt y Michael Praetorius. Sus conciertos vocales son menos extensos que los de su hermano, pero también privilegian la orquestación de gran contextura. Sus arias con instrumentos obbligato son particularmente encantadoras; aquí, como en los conciertos, su uso de una parte para virtuoso solo de violín es notable. Sus corales de órgano son típicas de la tradición alemana central de escenas prácticas en contrapunto liso.

Autor de varias obras, de las que se conservan 11 motetes, 3 cantatas y 72 preludios corales para órgano. Se le atribuye un “Aria con 15 variaciones”, conocida gracias a un arreglo para armonio de L. A. Zeliner. Entre sus obras está el Preludio Coral para órgano “In Dulci Jubilo”, que figuraba erróneamente con el número BWV 751 entre las composiciones de su sobrino y yerno Johann Sebastian Bach.